Ông không những là một vị quan thanh liêm chính trực mà còn là một người có tư tưởng đổi mới và ham học hỏi tìm hiểu kỹ thuật phương Tây với mục đích canh tân đất nước. Khi đã về hưu an dưỡng tại quê nhà ông đã đứng ra vận động nhân sĩ và nhân dân góp công, góp của khai mở con đường đèo Le để tạo điều kiện thuận lợi cho giao thương và phát triển kinh tế cho vùng đất Nông Sơn lúc bấy giờ.[1]

Trước đây vùng Lộc Đông quê hương ông bốn bề là rừng rậm núi cao, mọi sự giao lưu với bên ngoài đều qua đường thủy xuôi dòng sông Thu Bồn, còn đường bộ thì hầu như không có. Dần về sau nhu cầu đi lại càng nhiều, người dân đã băng rừng, vượt núi, dần thành một lối mòn nhỏ băng qua núi và được gọi là đèo Le. Còn vì sao có tên gọi là đèo Le và tên gọi này ra đời từ khi nào thì có nhiều ý kiến khác nhau, có ý kiến cho rằng đèo Le là cách đọc trại tên của một người Pháp: De Larie đã có công khám phá và khai thông đèo. Có người cho rằng tên gọi đèo Le xuất phát từ việc người dân đè núi đá cây rừng mà leo, leo mệt quá le lưỡi nên đặt là đèo Le.[1]

Theo nội dung tấm bia chính được tìm thấy tại đèo Le (do chính tay Nguyễn Đình Hiến cẩn soạn bằng chữ Hán) thì sự hiểm trở, khó đi lại của đèo Le lúc bấy giờ được miêu tả như sau:

"Con đường đèo Le Quế Sơn thật là hiểm trở, về phía Đông có hai tổng Trung Châu là: Thuận Mỹ, An Phú, tiếp về phía Tây là tổng Trung Lộc miền cao, thông với đường sông Thu Bồn và giáp miền thượng man, chung quanh đều là núi cao tạo thành một bức tường thành trời định, trước đây người qua lại tổng Trung Lộc đều than thở đường hiểm núi cao, đá chởm, đất bùn..."[1]

Cũng theo nội dung tấm bia này thì vào một ngày mùa Đông năm Bính Tý (1936), Nguyễn Đình Hiến đã diện kiến với Ngô Đình Khôi (Tổng đốc Quảng Nam lúc bấy giờ) khi Ngô Đình Khôi đi kinh lý các tổng miền thượng du. Tại cuộc gặp này, Nguyễn Đình Hiến đã đề xuất với quan Tổng đốc về việc mở con đường băng qua đèo Le kéo dài từ đông sang tây, rộng 3m và dài khoảng 7 km. Sau đó, Nguyễn Đình Hiến đứng ra thành lập ban vận động lạc quyên để khai mở con đường đèo Le gồm Tú tài Lâm Xuân Quế ở xã Phước Bình, Cửu phẩm Nguyễn Đình Dương ở xã Lộc Đông. Các ông đã đi vận động nhân dân trong tổng lạc quyên được số bạc là 4600 đồng lẻ, đồng thời cũng trích số bạc tư ích ở các tổng và thu bạc hội chợ rồi giao cho quan lục lộ cùng với ông tri huyện Nguyễn Trọng Thuần đốc thúc tiến hành.[1]

Việc khai mở đèo le bắt đầu được tiến hành vào mùa hè năm Đinh Sửu (1937) và trải 2 năm trời qua bao khó khăn, gian nan, vất vả con đường vượt đèo Le mới được hình thành. Điều này cũng đã được Nguyễn Đình Hiến ghi rõ trong tấm bia chính:

"Mùa hạ năm Đinh Sửu (1937) khởi công khai phá rừng rậm, nào là bắn đá, đào lấp hố sâu, bắt cầu xây cống vất vả suốt hai mùa mưa, đến mùa hè năm Kỷ Mão (1939). Suốt hai năm tròn dầm mưa dãi nắng, con đưòng đèo Le mới được hoàn thành. Ngày khánh thành (tại cây số 26) có quan Tổng đốc và quan Công sứ đến dự và chúc cho nhân dân tổng Trung Lộc, từ nay đã có đường, xe thông từ đông sang tây, các thành phần sĩ nông công thương có cơ phát triển thuận lợi." [1]

Sau khi con đường đèo Le được hoàn thành, vào năm Canh Thìn (1940), Nguyễn Đình Hiến đã cẩn soạn bốn tấm bia với mục đích dựng tại đỉnh đèo Le. Nội dung tấm bia chính chủ yếu ghi lại công tích mở đường đèo Le, các tấm còn lại ghi danh sách các vị hảo tâm góp tiền bạc để mở đường. Khi chuẩn bị dựng bia thì Cách mạng tháng Tám năm 1945 nổ ra, nên phải đưa các tấm bia này đi dấu, hiện nay mới chỉ tìm được ba tấm.[1]